Cho đến tận đầu thế kỉ 20 thì vẫn chưa có dân cư sống trên đảo mà chỉ có ngư dân ghé vào trú bão.[6][8] Vì không tìm được nguồn nước nên con người không định cư và đảo còn có tên Vô Thủy ("không có nước").[4] Ngoài ra đảo còn có tên là Hải Bào (do biển có nhiều bào ngư)[4] hoặc Phù Thủy Châu ("viên ngọc nổi trên mặt nước").

Năm 1887, thực dân Pháp và nhà Thanh ký Công ước Pháp-Thanh 1887 phân chia lại đường biên giới giữa Bắc Kỳ và Trung Hoa. Đảo Bạch Long Vĩ nằm về phía tây kinh tuyến 105°43'Đ (kinh tuyến Paris làm gốc) nên thuộc về xứ Bắc Kỳ. Năm 1920, dân từ Quảng Yên (Bắc Kỳ) và Hải Nam (Trung Quốc) bắt đầu kéo tới đây sau khi người ta phát hiện nguồn nước ngọt ở phía nam đảo.[4][6] Năm 1937, vua Bảo Đại phái 12 người đến đảo để lập đồn canh phòng và xây dựng chế độ lý trưởng.[6] Thời Pháp thuộc, lộ trình tuần tra định kì của Pháp khởi đầu tại vịnh Hạ Long đến Cô Tô, Bạch Long Vĩ, vòng quanh quần đảo Hoàng Sa, quay lại dọc bờ biển Trung Kỳ rồi kết thúc ở Cát Bà.[4]

Đến thời Thế chiến 2, Nhật đảo chính Pháp ở Đông Dương và tước khí giới của quân lính Bảo Đại đóng trên đảo. Năm 1946, Pháp quay trở lại Đông Dương và khôi phục lại chế độ cai trị trên đảo.[8]

Năm 1949, Quốc dân đảng Trung Quốc thua trận chạy ra đảo Đài Loan và chiếm đảo Bạch Long Vĩ. Tháng 7 năm 1955, Quân Giải phóng Nhân dân Trung Quốc tấn công quân Quốc dân đảng và kiểm soát đảo này.[8]

Ngày 16 tháng 1 năm 1957, Việt Nam Dân chủ Cộng hoà tiếp thu đảo từ Cộng hòa Nhân dân Trung Hoa. Cũng trong ngày này, Thủ tướng Chính phủ Việt Nam Dân chủ Cộng hoà ký Nghị định số 49/TTg quy định đảo Bạch Long Vĩ là xã trực thuộc Uỷ ban nhân dân thành phố Hải Phòng.[8]

Cuối năm 1965, Không quân Hoa Kỳ tăng cường ném bom miền Bắc Việt Nam khiến toàn bộ dân cư của đảo phải sơ tán về đất liền. Suốt từ đó đến tận năm 1992 thì đảo này chỉ có quân đồn trú là Tiểu đoàn 152 (sau này là Trung đoàn 952 Vùng I hải quân).[8]

Ngày 9 tháng 12 năm 1992, Chính phủ Việt Nam ra Nghị định số 15/NĐ/CP thành lập huyện Bạch Long Vĩ thuộc thành phố Hải Phòng. Ngày 26 tháng 2 năm 1993, Hải Phòng tổ chức đưa 62 thanh niên xung phong và một số hộ ngư dân đầu tiên ra đảo.[8] Ngày 27 tháng 7 năm 1994, Thủ tướng Chính phủ Việt Nam ký quyết định số 379/TTg phê duyệt Luận chứng kinh tế kỹ thuật tổng thể xây dựng huyện đảo Bạch Long Vĩ thành một đơn vị hành chính cấp huyện phát triển kinh tế - quốc phòng - xã hội toàn diện, một trung tâm dịch vụ hậu cần nghề cá của ngư trường vịnh Bắc Bộ.[9] Nghị quyết số 32/NQ-TW của Bộ Chính trị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam (khoá IX) giao Bộ Thuỷ sản và Tổng cục Du lịch (Việt Nam) nghiên cứu xây dựng đảo Bạch Long Vĩ sớm trở thành trung tâm chế biến và dịch vụ hậu cần nghề cá cho các tỉnh ven biển Bắc Bộ.[10]